杨 欣 | 魔法与科学：人工智能的教育迷思及其祛魅

一、引言　　

在开启本文之前，请允许笔者介绍两个在18世纪欧洲盛极一时的“自动机器”（我们可以将其理解为“人工智能”的萌芽物）。第一个是土耳其行棋傀儡（Mechanical Turk）。这是一个可以自动下棋的装置，据说这个机器击败了不少挑战者，包括拿破仑·波拿巴和本杰明·富兰克林等人。但它后来被证明是个骗局。[1]第二个是作家机械人偶（The Writer）。该机器由瑞士钟表师皮埃尔·雅克·德罗在1768年设计制造。它能自己拿笔蘸墨水，在纸上写字画画。这个机器是真实存在，且有据可查。[2]此时此刻，理解上述故事存在两种截然不同的思路，即魔法（某种神秘主义方式）与科学（可重复、可检验的方式）。　　

站在魔法一侧，观众自然会觉得前者显然是个失败的、天真的甚至有些愚蠢的“骗局”，后者不失为一个伟大、超前、成功的“神技”。并且，成功的魔法师无论出于审美需求还是传统行规，永远不可能诚实地向观众进行“揭秘”。所以，当一项新颖的、博人眼球的技术（魔法）华丽登场时，作为观众不可能也没必要在科学的前提下进行讨论和使用，也不用重视它的历史和原理，更不必思考它在遇到各种问题的时候应该如何选择和使用，他们只需要在恰当的场合，欣赏一场颠覆人类认知的“表演”即可。当然结局也会很简单，要么赞叹于“神技”的伟大，要么鄙夷于“骗局”的拙劣。由此出发，如果再考虑到人工智能这种技术可能灌输给人类的观念，“我们像机器一样工作时就处在最佳状态，在一些重要的方面，我们可以委托机器代理我们工作。这些信念隐形的后果是，我们失去了对人类判断力和主体性的信心”[3]129。我们或许会悲观地发现，当人工智能这种技术如同“魔法”般出现时，更多观众不仅看不透这场表演到底是“神技”亦或“骗局”，也无从知晓自己是否会被“魔法”诱惑和蒙蔽。　　

站在科学一侧，上述故事却会复杂、曲折、生动许多。回顾人工智能的历程可以发现，之所以会诞生上述两个故事，不是因为谁更聪明、谁更傻，而是由于在17世纪启蒙运动之初，“计算可以机械化、理性可以计算化”的想法就已经在欧洲萌芽。1645年，布莱士·帕斯卡在发表了一篇献词《算数机器》，他在文中介绍了他发明的一种计算设备：“为了帮助身为税务监督官的父亲减轻令人疲惫的计算任务，他设计出了一种可以进行十进制四则运算的机器，名为‘Pascalina’”[4]105。在这篇献词发表的6年后（1651年），托马斯·霍布斯在他的名著《利维坦》中提出了“推理即计算”（reasoning is calculation）的思想，即“‘推理’只不过是计算，也就是对我们大脑中的一些符号与表达的结果进行加加减减。当我们独立计算时，称其为‘符号’；当我们向他人展示与证明我们的计算时，则称其为‘表达’”。[5]21可以说，正是由于上述思想启蒙和技术基础，才会在18世纪产生两个截然不同的故事。因为有前车之鉴，人们才会上当受骗；也因为有前例可循，人们才会制造出如此惊艳的产品。

接下来，我们秉持科学的精神，沿着科学的历程，就可以发现“由骗局到神技”的奇点似转折。18世纪的“土耳其行棋傀儡”在霍布斯的“推理即计算”、笛卡尔的“心理表示”、莱布尼茨的“广义计算”等哲学思想指引下，经由埃达·洛夫莱斯夫人的预言到艾伦·图灵的图灵机，结合布尔代数、谓词逻辑、信息论、控制论等理论准备，以及晶体管和算法层面的无数创新，演变成当下在围棋领域战无不胜的Alpha Go。用科学的眼光来看，人工智能的发展与变革并非一场史诗般的表演，也不仅是技术的胜利，更意味着前所未有的知识进步与观念革命。长期以来，科学家们对人工智能的观念未必一致，也经常为一些问题相持不下，但他们意见重叠的部分很广、很清晰，也合乎科学的基本精神，都热切地关注人工智能的真相，不断求解着“计算是否可以机械化”“理性是否可以计算化”“理性是否可以机械化”“人类是否可以理性化”等命题。尽管这个过程没有魔法般的魅惑力，但却展现了人类不断追求进步的理性一侧。　　

一言蔽之，面对人工智能之于教育的认知诱惑与利益裹挟，如果我们只是按照欣赏魔法的方式夸夸其谈，难免堕入各种不知所谓的迷思之中；反之，如果我们可以在科学精神指引下，理性反思人工智能之于教育的功能局限与真实价值，则更有可能实现教育的进步。　　

需要说明的是，若要拆穿人工智能在教育领域的“魔法”，我们既可以从人工智能核心应用解析其技术层面的客观破绽，也可以从观众的角度探究他们沉迷其中的主观缘由。笔者作为教育工作者更为关注后者。因为从教育的角度而言，涉及人工智能的教育迷思可以解释为观众的偏狭、盲目与激情，而这些东西实则源于对人们对科学的疏忽，而不止是技术的无知。毕竟，不是每个“观众”（教育相关者）都要成为优秀的“表演者”（技术工程师），所以他们往往没有那么多精力和耐心了解技术的每一个细节；与之不同，如果他们可以明晰技术背后的科学规律，完全可以举一反三，成为更具科学素养的“观众”。并且，如果有更多教育者意识到了这个问题，他们就可以尝试从科学的角度向世人阐释人工智能的价值与规律，引导科学走进人工智能的教育世界，驱散密布其间的迷思，从而培育更多理性的“观众”。

二、人工智能的教育迷思表征　　

当下，教育界关于人工智能的探究正在兴起。显而易见，与这个时代最前沿、最热门乃至可能最有前途的科技建立更加紧密的关系，可以更好地实现“科技赋能教育”的预期目标。这既符合人们的直观感受和美好愿望，也符合近代科技改变世界的潮流。然而，未经检验和证实的“好消息”说得太多，就容易让人产生不切实际的希望与认知，乃至引发以下四种典型的教育迷思。　　

（一）高估人工智能带来的教育变革　　

回顾近代信息技术对教育的变革可以发现，人工智能带给教育界的这种乐观情绪，并非第一次出现。在国际上，1940年电影被认为教育领域中“最具革命性的工具”，1957 年电视用于教学被誉为“教育的革命”，1967 年的计算机教学同样被人视作教育革命的开始。[6]然而现实是，这些“教育革命”并没有最初想象中那般巨大。这至少表现在学习意义上——要学的人会利用信息技术学得更好，不过信息技术却不会告诉其他人“他为什么要学习”。　　

再看看国内，信息技术多次变革都曾令我国教育界兴奋不已。回想20世纪80年代，当电视机逐步在国内普及之时，就有政协委员提案，希望通过电视办教育，以便更快、更好地普及教育——因为人们只需要坐在电视机前就能轻易地接受教育。这种“乐观”的情绪，并非少数人所独有，因为这听起来很有道理，而且做起来也不难。结果是，电视机确实全面普及了，但却很少有人因此获得了更好的教育。而电视机也并未成为人们接受教育的有效工具，反而成为人们日常消遣娱乐的工具。另一方面，人们确实很容易通过电视机开始学习，相应地，他们也能随时结束学习，且后者发生的频率远高于前者，毕竟电视节目的吸引力远大于枯燥的教育内容。加之没有教师在电视机前约束学生，学生就算不学也无所谓。最终，电视机成为了教育变革的“鸡肋”。随后，计算机和互联网的普及也给人带来过类似的“乐观”情绪，但结果也是“喜忧参半”：喜的是，我国教育方式和理念因此实现了升级，也由此拓展了教育内容、空间、时间和对象；忧的是，懂得利用计算机和互联网学习的学生远远低于那些用它玩游戏、聊天的学生。当下，考虑到人工智能在游戏、交友等领域的应用范围和成熟度远甚于教育领域，对学生的吸引力也远高于教育应用，所以它能否避免或者如何避免学生的“玩物丧志”将是个值得探讨且具有争议的议题——争论的核心不是人工智能是否应该让学生感到更多快乐，而是人工智能除了在学习上“讨好”学生之外，还可以赋予他们什么样的学习体验，像美图秀秀一样“美化学习”的人工智能应用有必要得到赞美和推广吗？　　

除了上述历史的警示之外，人工智能带来的教育变革之所以充满迷思，还在于以下“先天不足”。首先，人工智能自身亦存在难以克服的技术局限。（1）人工智能的计算能力远低于人类大脑的复杂度，即便将谷歌计算平台所拥有的全部服务器（约几百万台）用于大脑认知模拟，也达不到一个普通人脑的神经元的数量和关联度。（2）目前对人脑智能的机制理解仍然处于初级阶段，人类通过大脑的图像预演可以回答的简单问题，而人工智能通常需要通过大量的事实积累和逻辑推理才能做出推论。[7]其次，某些算法可能高估了人工智能代替人类的水平。2017年7月，几位德国经济学家在《Economics Letters》发表了一篇论文，特别指出人工智能取代工作的能力其实没有那么可怕。[8]原因在于，以前很多专家预估人工智能会占领多少工作的算法太粗糙，而且低估了人比“人工智能”的高明之处，比如灵活性、影响力等。此外，由于数据保密是人工智能应用的直接障碍，未来人工智能很可能无法在教育领域真正发挥作用，并且即使人工智能在教育中发挥了作用，也不一定受人们的欢迎。[9]可见，人工智能在教育领域的应用正在面临可能的“转折点”[10]。面对上述局限，人工智能带来的教育变革显然充满诸多值得警惕之处。而这使得它的乐观看上去具有迷思之嫌。  

（二）高估人工智能独立于人的教育功能　　

多年来，无论人们是沿着图灵当初的设想，还是走向与之不同的路径，人工智能都是在尝试成为将人类知识、规则和观念的逻辑化、标准化、流程化与自动化的高效工具，甚至未来某天可以离开“人”独立运行和决策。所以，不少教育领域的人工智能技术都会强调其独立于人的教育功能。然而事实是，写出人工智能程序的是人，录入数据的是人，使用人工智能的也是人，如果不解决人的问题，人工智能很可能成为不智能的“人工摆设”。　　

在这方面，梅瑞狄斯·布鲁萨德的《人工不智能：计算机如何误解世界》[11]一书已经做了深刻反思。她在书中列举了一个令所有人意想不到的案例：在美国纽约、宾夕法尼亚和华盛顿这些富裕的地区，居然有些学生上课没有教材。这样“简单”的技术问题，即便在中国最贫穷、落后的地方也几乎不可能发生，可它偏偏发生了在人工智能强国——美国。以布鲁萨德书中案例为据，笔者尝试总结了现有人工智能与人的关系：（1）算法都是人写的，人会犯错，算法就会犯错；（2）教育领域的重要决定都是由人做出的，现在并非人工智能说了算；（3）时代、环境和人都在变，所以无法给人工智能提供清晰目标，而且有些事必须由人来面对和解决；（4）有时候人们在教育问题上自己也不知道要解决什么，人工智能就更不可能理解并予以解决；（5）现代社会中人们还是更愿意和人打交道，而非人工智能；（6）当前，人工智能在社会问题（包括教育）上的改变有限，人工智能对人的最大改变，也许是让人更依赖它了。鉴于此，现阶段过分强调人工智能独立于人的教育功能显然有些不切实际。对此，约翰·托比也用“智能铁律”提醒世人，“目前人工智能还不是能有机采取行动的智能（movtivated intelligences capable of taking actions，MICTAs）；所以让人在一件事情上智能的程序，会让人在其他事情上表现得很愚蠢”[12]366-369。

（三）将人工智能视作“因材施教”的完美载体　　

尽管现在不少人工智能技术标榜可以实现因人而异的自适应学习，即实现因材施教。但从人工智能的本质来看，它仍然是一堆数字化的算法。只要是数字化的技术，就会追求对所有的对象一视同仁，忽略个体间的某些差异，从而用数学的方法对它们进行处理。[13]从这个意义而言，人工智能在教育领域的应用，可能并非单纯的“使用”，而是在构造“可以人工智能化”的教育目标、内容和对象。换言之，那些能够享受人工智能服务的教育对象必须是“数字化”的。未被数字化或者不可数字化的东西，仍然不在人工智能的服务区内。也正因此，与近代科学数字化的困境类似，[14]187-188人工智能在教育领域也存在“霸权”和“量纲”。　　

第一，人工智能的“话语霸权”。尽管众人习惯说“数据说话”，但显然数据不会开口说人话。所谓人工智能呈现的语言也是人为组织的结果。但是这种数字化的现代化设计已经成为全社会共识，正因此，如果未来人工智能基于大数据对学生下了“判断”，它可能比之前教师的判断更加“不可超越、无可挑剔”，也更容易让学生丧失质疑和挑战的信心。　　

第二，人工智能的“量纲化”。人工智能背后的数字化思想本质是将多种多样的质还原为单一的量纲，将一切质的差异还原为单纯量的差异。比如，一个学生的素质可以被还原为阅读、数学、演讲、运动的分数（未必是考试分数）。更进一步而言，某种教育内容被“人工智能化”，就意味着开辟了一个可计算的领域，也意味着有关内容的质性差异被抹平。尽管此类处理方式有其价值，不过也存在根本性缺陷。对此，朱迪亚·珀尔在其新书《为什么：基于因果关系的新科学》写到：“现有人工智能在运用数学分析来解决问题时，不得不将这一问题转化为一个关于关联的伪问题。”[15]323也正因此，教育中“质”的真实因果也会无可避免地被还原成某种“量”的虚伪相关。　　

（四）将人工智能包装成万能的“教育解药”     

当下，不少人在人工智能上诉诸了“科技赋能教育”的强烈憧憬。因为国人向来习惯将科学作为任何领域正面价值的标准，[14]17所以人们也高度关注人工智能这类“力量化、控制化、预测化的现代高科技”[13]，并且期盼以此解决所有问题。再加上教育与人工智能分属不同领域，政府官员、教育学者、商人、计算机工程师等不同人群从不同角度看到了不一样的问题、诉求和希望。正如列维·斯特劳斯所言：“迷思是人们为了应对社会生活中难以完全解决的冲突而编出的故事。”[16]于是乎，人工智能也被包装成了可以解决诸多教育问题的“解药”。     

然而如前所述，以人类自身智慧无法解决的教育问题，真的可以从人工智能的各种算法中找到答案吗？答案既未知，且令人忧虑。丹尼尔·丹内特就提出“真正的危险并不是智能机器会强大到篡夺人类的统计权，而是因为愚蠢的机器被人类赋予了远超出它们自身能力的权利。”[12]36更何况，将人工智能包装成万能的“教育解药”，已然堕入了马克思·韦伯所担忧的“工具理性”，也正在影响人们对人工智能的看法。[17]可以预见的是，那些强调个人、进步、效率、有效性以及可量化、可计算的品质和价值将进一步在人工智能的影响下发扬光大；而那些在传统教育中无法“可视化”，却有重要价值的教育内容很可能进一步边缘化，比如同理心、想象力等。更令人担忧的是，这些特征有可能将人工智能装扮成“教育的牢笼”：随着越来越多的教育活动受到人工智能的影响或支配，人工智能不仅成为了教育的手段，甚至成为教育的目的；学生和教师将会更加习惯或者乐于在人工智能指导下找到自己“擅长”的固定位置，相应地，“在工具理性支配下，去人性化、情感隔离、肤浅的社会生活以及感觉什么都不值得等”[18]37，也将日益成为可能。近来，这种担忧可能正在蜕变成现实：“浙江小学生被戴上的智能头环”[19]，不正是这种逻辑的真实写照吗？在所谓智能科技的支持下，逼孩子背负着外界“等着你犯错”的不信任感，从进入教室的那一刻就被迫成为了有色眼镜下的“问题少年”，这不正是教育的牢笼吗？

三、人工智能的教育迷思症结　　

站在研究一侧，发现上述教育迷思并不难，也不是要因此指责人们的“无知”，重要的是以此为契机，探究人们在将人工智能推广到教育领域时（以下简称“教育+人工智能”）堕入迷思的原因。理论上，如果人们缺乏人工智能的相关知识，都存在陷入迷思的可能，如仅从眼前的局面理解人工智能、用“喜、怒、哀、乐”代替理性思考。另外，即使从事与人工智能有关的专业人士，如果缺乏科学精神，也会堕入与现实相悖的迷思之中，如用技术去解释一切事物、低估人类自身的局限性、忽略人工智能的应用前提、为了满足某种商业利益的诉求。除了上述普遍原因之外，从“教育+人工智能”关涉的认知背景、学科基础、内涵生成、言论特征来看，人们倾向于从“魔法”的角度赏析人工智能之于教育的效用，实则根植于以下缘由。    

（一）人工智能与公众认知的科学鸿沟　　

首先需要说明的是，历史而言，尽管科学本身因积累而体现出一种显而易见的进步，然而科学的普及史并不像科学本身那样有一部清晰的进步史，并且在现代的“迷信丛林”中，科学的生存状态是严峻的，科学能不能被普及甚至需不需要被普及都成了一个问题。[20]现实地看，“乏善可陈的教育体系令大众成为科学文盲，任由自身被认知偏见支配，因此在浅薄无知的名人、电视新闻主播和其他流行文化的腐蚀面前毫无招架之力”[21]386。也正因此，“当下，人工智能已经不仅是一种科学共识，也是一种流行和商业文化的形塑。并且从调查结果来看，科学意义上人工智能的价值、内涵、局限以及进展正在远离公众的一般认知。”[22]4-21换言之，人工智能与公众认知已然出现了一道难以言喻的科学鸿沟：由于民众既不关心，也难以理解人工智能的科学原理与科学结论，所以在“教育+人工智能”的问题上，他们就会轻信自己所希望的事实，而不管事实本身是否真实；就会只看见“他想看”“看得懂”的内容，而排斥那些想起来、听上去、做下去很困难的观点和规律；就会一心顺从流行的观念，而排斥未被众人相信的说法与事物；就会在没有道理的地方讲出道理、在没有规律的地方发掘规律、在没有意义的地方强加意义。而这也是构成上述迷思的症结所在。　　

另一方面，在这样的科学鸿沟下，如果我们再考虑到舒新城在一百年前描述科学与东方精神文明之间的艰难博弈“充盈保泰、优游自得，在足衣足食之后自然有许多用处，但把这种精神推而广之，应用到一切事物上面，便是不敢与自然作战，事事听从自然摆布，愿意接受自然摆布的民族，忽然要转过头面来讲制驭自然的科学，弄得有名无实，自然是‘事有必至，理有固然’”[23]212-213，以及中国教育学者“一味学时髦、太会适应环境、不肯下苦功夫、兴味太狭隘”[24]的历史习气，人工智能在中国教育领域成为人人热衷却迷思不断的教育议题颇有些顺理成章。　　

（二）人工智能界历来盛行的“浮夸风”　　 

历史表明，“人工智能作为学科，经历了大起大落。每一次的高潮都是一个旧哲学思想的技术再包装，而每一次的衰败都源自高潮时期的承诺不能兑现。只不过，这一次的浮夸轮到了机器学习。”[25]226值得一提的是，在人工智能历史进程中，这样的循环从来都不是陌生的——对一个复杂但令人兴奋的新兴领域，人们最初会表现出不切实际的期望，然后经历了幻想的破灭，人们兴趣减退，选择退出。[26]85换言之，人工智能这门学科的发展史既是人类大胆想象的科学历程，也是一部颇具浮夸之嫌的科幻故事，其中颇具代表性的当属人工智能之父图灵和谷歌技术总监库兹韦尔。需要说明的是，列举图灵与库兹韦尔的“浮夸”之处，并不是想以此戏谑前人“妄言”，而是想说明人工智能本身就是一项需要“大胆想象、小心求证”的学科，最顶级的专家也有想象过头的浮夸之嫌，教育人士在日常研究和讨论中更应慎之又慎，切勿轻信人工智能“预言”，并以此作为教育纲领。　　

首先，图灵本人完全支持机器可以有与人类相似的智能，并且反对把智能仅仅归于设计机器的人。按照他当年的设想，[27]人类的各种智能活动从本质上说都是有规则可循的，只要展开严格细致的理性分析，最后总能发现某些解决问题的通用法则。那么再利用这些法则来编写程序，通用智能机器就完全有可能实现了。图灵本人曾经预测随着足够多内存的出现，50年内（也就是到2000年）计算机能够达到图灵机的标准。[7]在图灵去世之后，很多科学家想延续这种探索，却始终没有进展。归根到底，可能是图灵对人类的理性估计过高了。与之不同，霍布斯曾言：“在日常生活中，人们管理自己的事物时，并不是根据推理和科学知识，而是根据各自的经验、记忆和习惯等，毕竟，科学距离人们的生活太遥远。”[5]24哈耶克亦指出：“人类很多时候都是不理性的，也没有真正理解世界、生活乃至自身的规则，人们只不过是按照以往的经验和直觉做事和生活，且无需推理。”[28]3-25　　

另一方面，库兹韦尔2006年在《奇点临近》一文中预测的人工智能“未来技术成熟后，可以通过释放足够多的纳米机器人到人体内，获得大脑神经元之间的每一个链接的各种生化指数，从而复制人的意识”[29]。库兹韦尔的预言显然还未实现，有很多科学家已经指出“库兹韦尔陷入了用人类可以理解的技术来解释人类智能的陷阱”[7]。通俗而言，所谓“奇点”完全取决于人类的解释能力，如果人类解释不了就是“奇点未临”，人类可以解释了就是“奇点来临”。　　

（三）“教育+人工智能”内涵的不确定性　　

需要看到的是，正是由于“教育+人工智能”的内涵在背景、结果、内容与目的层面充满了未知，所以迷思才有了肆意生长的“土壤”——亦如所有历史表明的那样，凡是人类解释不了、解决不了的问题和领域，必定迷思丛生。因为历史和原理的未知，所以某些人会将它的内涵视作“魔法”来欣赏；因为前景的未知，所以某些人会盲目乐观或者过度担忧这种全新事物；因为内容的未知，所以某些人难免忽略内涵自身的矛盾和局限；因为目的的未知，所以某些人可以将它的内涵包装成“万能解药”。　　

进一步而言，“教育+人工智能”内涵的未知源于人工智能本身的斗争和“伪争议”。一方面，人工智能的历史就是一部由众多对立议题构成的斗争史，如模拟与数字、串行与并行、取代与增强、语法与语义、机械论与目的论、生物学与活力论、工程与科学、符号与连续、逻辑与心理等。[25]9另一方面，迈克斯·泰格马克在《生命3.0：人工智能时代，人类的进化与重生》一书中专门调研了目前全球顶级人工智能专家，发现当下人工智能研究存在诸多“伪争议”[30]52-54——人们很多时候甚至无法保证彼此在谈论“智能”或者“智慧”这个词时，表达的意思是否相同。在此背景下，加之教育本身内容丰富、影响因素众多，且“人工智能已经引发了各行各业的创新风暴，也正在重新定义学校、学习、学生、教师等教育的基本概念”[31]，故而，“教育+人工智能”的内涵仍然莫衷一是。相应地，这也给了迷思更大的生长空间。　　

退一步而言，就算我们不考虑“教育+人工智能”内涵的变化，将其按照人工智能的算法进行良好定义，也会在计算（实践）过程中遇到“图灵停机问题”图灵停机问题是指，不存在这样一段程序或代码，它能够计算程序或算法在给定的输入上是否会结束（停止）。。需要说明的是，“可计算”的意思不但是“可以算”，而且是“可以算出结果来”。然而，图灵给出的“图灵停机问题”已经说明，即便所有问题都能用数字化描写，人工智能也解决不了所有问题。这意味着某些教育问题，人们只能慢慢等着它发生，而不能事先定义其背景、结果、内容与目的；还意味着，世界上有些教育问题，人们只能看着它发生，而无法解释它为什么会发生，即便人工智能也是如此。因为无论人或者人工智能无法预测它会不会停下来，又何来解释？由此可见，“教育+人工智能”内涵的形成和推广，必然在认识上面临诸多未知的挑战。   

（四）不负责任的漫谈     

站在人类的角度来看，人工智能的教育迷思实则源于某些人不负责任的漫谈：发表一些空洞的、毫无实质意义的内容，同时并不关心言语内容的真假。漫谈是日常领域的常见现象，也许并不值得大惊小怪，但是任由这样的漫谈蔓延至其他领域（尤其是学界、政府部门），就可能导致可怕的结果。因为漫谈就是充满夸张的表演，它让人缺乏自控，对真相毫无尊重，不关心自己是否误导了他人，而只关心给他人带来的印象。并且，这类人的权力和地位越高，对“教育+人工智能”的破坏就越大。更糟糕的是，在这样的环境中，“教育+人工智能”极有可能误入歧途，乃至反噬己身。     

究其原因，从哈里·法兰克福关于“漫谈”[32]的研究来看，人们之所以在“教育+人工智能”上，其因如下：第一，想要表达一种感受，而不关心自己表达的内容是不是准确。由于人工智能话题太热且人所共知，所以人们在教育的日常言语中，也喜欢搭上这样的热门话题。换言之，这些人并不是在严肃地关心“教育+人工智能”的事实本身，而是在显示自己的品位。第二，想要操控听众。某些人在“教育+人工智能”上漫谈时，是要藉由这样的表述，传达某些他希望别人接受的印象。第三，环境的压力。比如，某个教育专家置身于关心“教育+人工智能”的人群之中，不管他原先是否了解人工智能，为了凸显其专业地位，他很可能囿于一己的感性认识，或是一时兴起的构想，发表一些空洞、表浅甚至错误的观点。第四，相对主义、怀疑主义和后现代主义的哲学原因。具有这类观念的人信奉的是：不关心事实，而只关心自己的态度。正因此，他们认为人工智能本身就是个很难讲清楚的技术应用，多数人也不知道它的真相，也没有办法通过现有事实判断话题的真假。一旦具有这样的想法，在“教育+人工智能”上毫无根据地漫谈与真相之间，也就不存在实质性差异了。故而，某人只要在“教育+人工智能”上所说的内容是他想说的，那么他的言论即便没有依据也可以接受，而这也在相当程度上助长了迷思的滋生和传播。

四、人工智能的教育迷思祛魅　　

未来继续忽略上述迷思及其症结，很可能让人工智能在教育领域成为“魔法”一般的存在，同时还可能扭曲社会各界对“教育+人工智能”的观感。一方面，上述迷思源于一些不为人所知或者被人忽略、未经检验的知识和观点，并且这些知识和观点直接关涉人工智能正在教育领域应用的前景与策略。若我们不能很好地澄清这些知识和观点，以及由此造成的影响，人工智能在教育领域的研究与实践就会陷在迷思之中，所得结论也会显得模棱两可、幼稚表浅。另一方面，任由这些迷思持续下去，很可能让人工智能在教育领域流行过程中，变成满足某些人、某些机构利益的“魔法表演”：因为看不懂，所以觉得它神秘且高级，也因此只能坐在台下看着某些“专业人士”施展魔法。　　

历史已经表明，科学是解释世界的伟大革命，是它将人类从无知中解放出来，帮助人类重新认识自己以及世界，从而破除迷思。[21]9-10并且，早在1883年，哈蒙德（William A.Hammond）就用实验表明，运用科学思维能力的训练有助于祛除迷思。[20]6可见，运用科学祛除迷思不仅具有历史的必要性，更有实践的可行性。　　

鉴于此，未来要祛除人工智能的教育迷思，我们亟须秉持科学的“求真”（science for truth）精神，超越“喜怒哀乐”的情绪和技术应用的狭隘，逻辑、理性、批判地在“教育+人工智能”问题上观察现象、试验方式、比较结果、收集证据以及凝练观点，从而推动人工智能在教育观念层面的普遍祛魅祛魅一词起源于当代科学哲学，一般的理解为曾经一贯信奉的或被追捧的人或物或事或感情或文化或定论，受到新的认识后地位下降。。

（一）建构“教育+人工智能”的逻辑体系　　

现实而言，建构“教育+人工智能”的逻辑体系可以尝试“演绎闭合”[33]（closure）似的推理。首先，“演绎”是指“教育+人工智能”可以尝试建立类似像数学公理的信念体系，然后其中的各种论断、观点、立场都能从这个体系中通过逻辑推理而来。对此，我们可以将其理解为“教育+人工智能”的第一性原理，即人工智能在教育领域应用和推广的根本法则。考虑到我国的现实和诉求，以及现有人工智能水平，笔者尝试提出以下两条，以为引玉之砖。　　

第一条，应对“教育+人工智能”努力达成共识。一方面，所有共识首先要“根植于中华大地、反映中国人民意愿、适应中国和时代发展进步要求的科学社会主义”[34]。另一方面，根据科学范式研究创始人托马斯·库恩关于社会共识改变的建议[35]229，可以尝试以下三种方式达成对“教育+人工智能”的共识：（1）持续留意参与“教育+人工智能”有哪些异常和失败之处，同时对“教育+人工智能”要不停地宣讲和行动，并持之以恒；（2）在可能的情况下，加入已经接纳“教育+人工智能”并占据主导地位的教育环境，切身体验这种治理带来的益处；（3）不要过分在意反对“教育+人工智能”的意见，而应积极响应真诚支持“教育+人工智能”的人，置身于心胸开阔、愿意接纳此类事物的社会人群之中。     

第二条，“教育+人工智能”应有明确的的定义。图灵在其不朽的名文《计算机与智能》[27]一文开始处提出“‘机器能思考’这个问题必须从机器和思考这两个词的定义开始。并且这种定义不能通过日常使用或者盖洛普名义调查的方式。不然，这就会显得很荒唐。”为此，他在该文中提出了著名的“图灵测试”，以便清晰无误地表达他心目中的机器和智能的涵义。以此为鉴，细究当下层出不穷的“教育+人工智能”内涵，无论是智能教育、智慧教育、智慧课程、智慧课堂等，也许彼此都有自己的道理，但是彼此之间能够交流、延续和拓展吗？或者说，它们是一词多义还是一义多词？还是维特根斯坦隐喻的“语言游戏”？答案既未知且诡谲。　　

面对人工智能这样容易激发人类美好想象的“事物”，人们显然乐于创造各种好词。但如果总是争议多过共识、误解大于理解，什么样的“好词”也无助于创造更好的教育。在这方面，人工智能一词本身就是教训。人工智能一词的提出者约翰·麦卡锡在回忆该词时就明确表示“人工智能这个词被发明之后，该术语并未对研究工作发挥应有的作用”[36]855。也正因此，我们迫切需要一个类似“图灵测试”般的伟大概念。　　

其次，所谓演绎“闭合”，就是“教育+人工智能”的信念系统得满足下面这三个条件 ：（1）体系以内的东西不能互相矛盾；（2）不相信体系以外的东西；（3）相信能从这个体系推理出来的东西。以此而言，以恰当的信念体系为出发点，经过必要的逻辑推理，可以在更大程度上保证“教育+人工智能”研究实践的可信度与稳定性。更重要的是，使人明白自己喜欢、有用的“教育+人工智能”观点、方式和结果未必正确，因为正确的教学观念、育人方式和学习结果需要证据和推理。

（二）开展“教育+人工智能”的理性分析　　

如前所述，形成“教育+人工智能”的逻辑体系，就意味着有了在教育领域推动人工智能祛魅的“公理或者基本信念”，也意味着“教育+人工智能”有了可检验的最基本标准。在此基础上，“教育+人工智能”需要自己的“理性”。不同于经济学中的理性（rational）关注“一个人只要自己知道自己想要什么就能采取相应的行动”。本文所指理性（reasonable）源自启蒙时代先贤的思想，是脱胎于数学和科学的高级理性：它是霍布斯论述“推理即计算”时体现的理性：“如果我们只是盲目相信其他推理者结论，而不去考察从其定义出发的推理过程是否准确无误，那么只能是白费力气，学不到什么东西”[5]22，是康德在《纯粹理性批判》中所言的理性：“我们现在所从事的乃是这样的研究，这种研究我们真正说来不能称之为学理，而只能称之为先验的批判，因为它的意图不是扩展知识本身，而只是校正知识，并且应该充当一切先天知识的有价值或无价值的试金石”[37]19，也是史蒂芬·平克在《当下的启蒙》重申的理性：“只要你找出来讨论任何问题，并坚定地认为自己给出的答案真实可靠、令人信服，那么你就是在诉诸理性，同意将自己的观点交给客观标准来检验。”[21]8　　

据此逻辑而言，如果研究者要在“教育+人工智能”的问题上付诸于理性，首先要诉诸于理性的途径。第一，在“教育+人工智能”上考虑两个重要问题“我能知道什么”和“我如何得知”，进而开展必要而又谦逊的先验批判；第二，基于观察、实践以及实验得出的事实去理解“教育+人工智能”，而不是按照人们预设或想象的样子去理解它；第三，通过必要标准来检验“教育+人工智能”的优劣，增加目的本身的确定性，进而对其进行纠正和优化；第四，厘清“教育+人工智能”各种理论的假设、条件与尺度，经由必要的验证和推演，将可推广的技术与思想应用于教育变革。其次，将“教育+人工智能”置于已有人工智能的理性观念基础之上——也只有将“教育+人工智能”建构在理性的人工智能观念基础之上，研究者才能准确把握它的合理性所在。

（三）“教育+人工智能”的批判性接受　　

人工智能作为一种高效的工具，人们几乎不可能脱离其实用的功利属性开展研究与实践。为此，若要在逻辑和理性基础上彰显“教育+人工智能”非功利性，亟须批判性地接受相关内容，而不能被实用、利益以及数据所裹挟，否则我们就会陷入不可自拔的迷思之中。这绝非杞人忧天。一方面，哈耶克在其获得诺贝尔奖的演讲词《知识的僭妄》中表达了类似担忧“完全有可能存在这样一种‘科学’证据，它们更有助于支持一种错误的理论，而无益于佐证一种有效的解释。换言之，这种错误理论之所以被接受，实在是因为更加‘科学’，而一种有效的解释之所以被否弃，则是因为我们没有足够的量化基据可以用来支持它……与那种伪装成精确但可能谬误的知识相比，我宁愿接受不完美但却真实的知识……如果社会研究者认识到自己还有着无从克服的局限性，那么他们就应该明白谦虚的道理。”[28]192-204另一方面，关于人工智能的成功批判已有前例可循。1965年，休伯特·德雷福斯就曾在《炼金术与人工智能》中对人工智能进行了严肃而又深刻的批判。实事求是而言，尽管德雷福斯在报告中对人工智能做出了颇具讽刺意味的隐喻“第一个爬上树的人可以宣称这是飞往月球的显著进步”，但他在报告最后也指出：“如果炼金术士不再执着于曲颈瓶和五角器皿，而把时间花在寻找问题的深层结构，如果人类从树上下来开始着手发明火与车轮，事情就会向一个更令人鼓舞的方向发展。毕竟，三百年后人类确实从铅提取了黄金（也登上了月球），但这只有在人类放弃了炼金术水平上的工作，达到化学水平甚至更深层次的原子水平上后才会发生。”[38]　　

从上述启示而言，有时人们将“教育+人工智能”视作魔法，也未必等于虚假或者错误。因为即便人们不去质疑“教育+人工智能”，它也会给现有教育带来某种好处——亦如炼金术确实让某些人炼出了黄金。不过，魔法般的“教育+人工智能”绝对不可能发现更加深刻的规律，因为它不会对其自身的真实和虚假、正确和错误加以批判性区分。所以，如果研究者要批评性地接受“教育+人工智能”，就必须承认任何人对此的观点都只是观点而已，没有什么观点可以至高无上、免受检验，任何观点都必须言之有据。

参 考 文 献：

[1]魏铼.人工智能的故事[M].北京:人民邮电出版社,2019:73-76.

[2]渔歌子.不可思议：200多年前的机械人偶能写会画可以弹琴［EB/OL］.（2017-04-07）[2020-07-14].https://baijiahao.baidu.com/s?id=1563990758458905&wfr=spider& for=pc.

[3]尼尔·波斯曼.技术垄断：文化向技术投降[M].何道宽，译.北京:中信出版集团,2019.

[4]卢西亚诺·弗洛里迪.第四次革命：人工智能如何重塑人类现实[M]. 王文革,译.杭州:浙江人民出版社,2016.

[5]霍布斯.利维坦[M].吴克峰,译.北京:北京出版社,2008.

[6]李子运.关于“智慧教育”的追问与理性思考[J].电化教育研究,2016(8):5-10.

[7]万赟.从图灵测试到深度学习:人工智能60年[J].科技导报,2016(7):26-33.

[8]MELANIE A ,TERRY G,ULRICH Z. Revisiting the Risk of Automation[J].Economics Letters,2017(7):157-160.

[9]何克抗.21世纪以来的新兴信息技术对教育深化改革的重大影响[J].电化教育研究,2019(3):5-12.

[10]史蒂芬·哈格德.人工智能的教育应用面临转折[J] .赖鹏飞,译.在线学习(新思维、新技术、新业态),2017(10)：14-16.

[11]MERDITH BROUSSAND. Artificial Unintelligence :How Computers Misunderstand the World[M]. Boston:MIT Press,2017.

[12]约翰·布罗克曼. 如何思考会思考的机器[M].黄宏峰，李骏浩，张羿,译.杭州:浙江人民出版社,2017.

[13]吴国盛.科学与人文[J].中国社会科学,2001(4):4-15.

[14]吴国盛.什么是科学[M].广州：广东人民出版社,2019.

[15]朱迪亚·珀尔，达纳·麦肯齐.为什么:基于因果关系的新科学[M].江生,于华，译.北京:中信出版集团,2019.

[16]迷思（百度百科）［EB/OL］.[2020-08-22].https://baike.baidu.com/item/%E8%BF%B7%E6%80%9D.

[17]杨欣.人工智能“智化”教育的内涵、途径和策略——人工智能何以让教育变得更聪明[J].中国电化教育,2020(3):25-31.

[18]罗伯特·毕夏普.社会科学哲学:导论[M].王亚男，译.北京：科学出版社,2018.

[19]Vista看天下.浙江小学生被戴上的“智能头环”，为什么让我们害怕？［EB/OL］.(2019-11-01)[2020-07-14].https://new.qq.com/omn/20191101/20191101A06UEW00.html.

[20]约翰·C·伯纳姆.科学是怎样败给迷信的：美国的科学与卫生普及[M].钮卫星,译.上海;上海科技教育出版社,2006.

[21]史蒂芬·平克.当下的启蒙[M].侯新智，欧阳明亮，魏薇，译.杭州：浙江人民出版社,2019.

[22]腾讯研究院，中国信息通信研究院互联网法律研究中心，腾讯AI Lab，腾讯开放平台.人工智能：国家人工智能战略行动抓手[M].北京:中国人民大学出版社,2017.

[23]舒新城.近代中国教育思想史[M].福州：福建教育出版社,2007.

[24]瞿葆奎,郑金洲,程亮.中国教育学科的百年求索[J].教育学报,2006(3):3-11.

[25]尼克.人工智能简史[M].北京：人民邮电出版社,2018.

[26]安东尼·塞尔登,奥拉迪梅吉·阿比多耶.第四次教育革命：人工智能如何改变教育[M]. 吕晓志,译.北京：机械工业出版社,2019.

[27]TURING A M. Computing Machinery and Intelligence[J]. Mind,1950(59):433-460.

[28]冯·哈耶克.知识的僭妄：哈耶克哲学、社会科学论文集[M].邓正来,译.北京:首都经济贸易大学出版社,2017.

[29]KURZWEIL R. The Singularity is Near:When Humans Transcend Biology[J]. Cryonics,2006(1):160-160.

[30]迈克斯·泰格马克.生命3.0:人工智能时代,人类的进化与重生[M].汪婕舒,译.杭州:浙江教育出版社,2018.

[31]袁振国.科学问题与教育学知识增长[J].教育研究,2019(4):4-14.

[32]哈里·G·法兰克福.论扯淡[M]. 南方朔,译.南京:译林出版社,2008.

[33]阳建国.怀疑论论证的结构[J].哲学研究,2006(12):69-75.

[34]习近平.关于坚持和发展中国特色社会主义的几个问题［EB/OL］.（2019-03-31）[2020-07-14].http://www.xinhuanet.com/politics/2019-03/31/c_1124307481.htm.

[35]德内拉·梅多斯.系统之美:决策者的系统思考[M].邱昭良,译.杭州:浙江人民出版社,2012.

[36]彼得·阿德里安斯,约翰·范·本瑟姆.爱思唯尔科学哲学手册：信息哲学（下）[M]. 殷杰,等译.北京:北京师范大学出版社,2015.

[37]康德.纯粹理性批判[Ｍ].邓晓芒,译.北京:人民出版社,2004.

引用格式：杨欣.魔法与科学：人工智能的教育迷思及其祛魅[J].教育学报，2021（2）：18-31.